How Many Tools Should an LLM Agent See? A Chance-Corrected Answer
LLM Agent应看到多少个工具?用机会校正指标回答
🧭 工具选择深度自适应与评估 ★ 深度解读
Meta Platforms
提出Bits-over-Random(BoR)度量评估工具搜索深度,并用作RL奖励学习自适应截断,显著降低提示长度同时保持覆盖率。
📌 工作参考价值(4 点)
- 在电商工具检索或推荐候选集裁剪中,可用 BoR 替代固定 Top-K 评估检索深度,自动惩罚过度展示而无需手工设计惩罚项。
- 将 BoR 作为强化学习奖励,训练轻量策略网络动态决定每个 query 展示多少工具/物品,实现自适应截断,减少 LLM 调用成本和上下文干扰。
- 下游验证表明:更短的候选列表能显著提高 LLM 选择正确工具的概率(93.1% vs 87.1%),尤其在中等难度查询上(76.8% vs 60.9%),这对多工具 Agent 或生成式推荐中的物品选择有直接借鉴。
- BoR 的自修剪特性依赖检索器质量;当检索器极弱时(如 BM25 在语义场景下)自适应深度会退化为展示全部工具,需结合更强的语义匹配或多路召回。